日本近代考古學的發生可追溯至明治維新，由當時美國的動物學者－Moss在東京近郊發現大森貝塚，自此開始了日本考古學的研究。古代的日本原本受到中國的影響，廣泛的史學研究為一切學問的主流，以這個角度而言，日本考古學原本應走向與中國考古學同樣的型態，但因為明治維新的緣故，日本考古學增加了一些西方的、科學的與自然學科的性質。
過去曾認為日本本土的舊石器時代可以早到距今60∼70萬年前，但是在舊石器偽造事件爆發後，可靠的證據只有早到3萬多年前，其實這個年代才是符合整個東亞海島的最早人類活動時代。日本的舊石器基本上是類似於西伯利亞，這似乎說明它的來源發現。這些石器最大的特徵是已經有了磨製的技術，並且有不少可能和製造舟船有關。
日本在距今13000年前開始有了陶器，可以說是目前所知世界最早的陶器發明，此時開始進入所謂的繩紋時代。主要特徵是陶片上常有繩子輾壓過的紋飾，陶器器型非常繁複，極具特色。過去長期認為此時仍然沒有農業，主要行採集與漁獵的生活。但是在經過一番論爭之後，最後終於發現了農業種子，證實約在距今4500年前即有農業發生。
約在距今2400年時，一批移民從東亞大陸帶著水稻、青銅與鐵器的技術進入日本九州，對當地產生極大的改變，稱為彌生文化。彌生文化很快的從西到東取代了原本的繩紋文化，成為日本走向國家體制的開端。
彌生之後為古墳時代，此時的日本本土建造了不少佔地極大的墳墓，一般認為是皇室的陵墓。由於古墳的製造需要階層社會的機制，包括強而有力的管理機制，一個集權的中心，因此這個時代應該已經進入王國的體制。
日本考古學基本上是歷史的研究，因此也包含歷史時代如飛鳥時代、奈良時代、平安時代、鎌倉時代、室町時代、安土桃山時代與江戶時代。一般的區分是：舊石器時代經繩紋到彌生被稱分類為原始社會；古墳到平安為古代社會、鎌倉與室町為中世；安土桃山與江戶為近世。
看重歷史研究的日本考古學有著極繁盛的發展，粗估的相關專家或工作人員達2萬人，每年也花費極大的金額在考古工作，這些數字無論就絕對或相對的比率都是世界數一數二者。